Previous work has shown that a neural network with the rectified linear unit (ReLU) activation function leads to a convex polyhedral decomposition of the input space. These decompositions can be represented by a dual graph with vertices corresponding to polyhedra and edges corresponding to polyhedra sharing a facet, which is a subgraph of a Hamming graph. This paper illustrates how one can utilize the dual graph to detect and analyze adversarial attacks in the context of digital images. When an image passes through a network containing ReLU nodes, the firing or non-firing at a node can be encoded as a bit ($1$ for ReLU activation, $0$ for ReLU non-activation). The sequence of all bit activations identifies the image with a bit vector, which identifies it with a polyhedron in the decomposition and, in turn, identifies it with a vertex in the dual graph. We identify ReLU bits that are discriminators between non-adversarial and adversarial images and examine how well collections of these discriminators can ensemble vote to build an adversarial image detector. Specifically, we examine the similarities and differences of ReLU bit vectors for adversarial images, and their non-adversarial counterparts, using a pre-trained ResNet-50 architecture. While this paper focuses on adversarial digital images, ResNet-50 architecture, and the ReLU activation function, our methods extend to other network architectures, activation functions, and types of datasets.

持续学习是一种学习范式，可以通过资源限制顺序学习任务，其中关键挑战是稳定性的难题，即同时具有稳定性来防止灾难性忘记旧任务和可很好地学习新任务的稳定性是不安的。 。在本文中，我们提出了一种新的持续学习方法，即先进的空空间（ADN），以平衡稳定性和可塑性，而无需存储以前任务的任何旧数据。具体而言，为了获得更好的稳定性，ADN会利用低级近似来获得新的空空间，并将梯度投射到空空间上，以防止干扰过去的任务。为了控制无效空间的产生，我们引入了不均匀的约束强度，以进一步减少遗忘。此外，我们提出了一种简单但有效的方法，即任务内蒸馏，以提高当前任务的性能。最后，从理论上讲，无效空间分别在塑性和稳定性中起关键作用。实验结果表明，与最先进的持续学习方法相比，所提出的方法可以实现更好的性能。

现有的少量学习（FSL）方法依赖于具有大型标记数据集的培训，从而阻止它们利用丰富的未标记数据。从信息理论的角度来看，我们提出了一种有效的无监督的FSL方法，并以自学意义进行学习表示。遵循信息原理，我们的方法通过捕获数据的内在结构来学习全面的表示。具体而言，我们以低偏置的MI估计量来最大化实例及其表示的相互信息（MI），以执行自我监督的预训练。我们的自我监督模型对所见类别的可区分特征的监督预训练没有针对可见的阶级的偏见，从而对看不见的类别进行了更好的概括。我们解释说，受监督的预训练和自我监督的预训练实际上正在最大化不同的MI目标。进一步进行了广泛的实验，以通过各种训练环境分析其FSL性能。令人惊讶的是，结果表明，在适当条件下，自我监管的预训练可以优于监督预训练。与最先进的FSL方法相比，我们的方法在没有基本类别的任何标签的情况下，在广泛使用的FSL基准上实现了可比的性能。

在合成数据集接受培训的基于深度学习的源脱掩护方法已经取得了显着的性能，但由于域移动而引起的真实朦胧图像的性能急剧下降。尽管已经提出了某些域的适应（DA）脱掩护方法，但它们不可避免地需要访问源数据集，以减少源合成和目标真实域之间的差距。为了解决这些问题，我们提出了一种新颖的无源无监督的域适应性（SFUDA）图像去悬式范式，其中只有训练有素的源模型和未标记的目标真实的朦胧数据集。具体而言，我们设计了域表示标准化（DRN）模块，以使真实朦胧域特征的表示与合成域的特征相匹配以弥合间隙。借助我们的插件DRN模块，未标记的真实朦胧图像可以调整现有训练有素的源网络。此外，还应用了无监督的损失来指导DRN模块的学习，该模块包括频率损失和物理先验损失。频率损失提供了结构和样式的约束，而先前的损失探讨了无雾图像的固有统计属性。现有的源脱去模型配备了我们的DRN模块和无监督的损失，能够脱光未标记的真实朦胧图像。在多个基层上进行的广泛实验证明了我们方法在视觉和定量上的有效性和优越性。

非凸松弛方法已被广泛用于张量恢复问题，并且与凸松弛方法相比，可以实现更好的恢复结果。在本文中，提出了一种新的非凸函数，最小值对数凹点（MLCP）函数，并分析了其某些固有属性，其中有趣的是发现对数函数是MLCP的上限功能。所提出的功能概括为张量病例，得出张量MLCP和加权张量$ l \ gamma $ -norm。考虑到将其直接应用于张量恢复问题时无法获得其明确解决方案。因此，给出了解决此类问题的相应等效定理，即张量等效的MLCP定理和等效加权张量$ l \ gamma $ -norm定理。此外，我们提出了两个基于EMLCP的经典张量恢复问题的模型，即低秩量张量完成（LRTC）和张量稳健的主组件分析（TRPCA）以及设计近端替代线性化最小化（棕榈）算法以单独解决它们。此外，基于Kurdyka - {\ l} ojasiwicz属性，证明所提出算法的溶液序列具有有限的长度并在全球范围内收敛到临界点。最后，广泛的实验表明，提出的算法取得了良好的结果，并证实MLCP函数确实比最小化问题中的对数函数更好，这与理论特性的分析一致。

张量恢复是计算机视觉和机器学习中的重要问题。它通常使用张量排名的凸松弛和$ l_ {0} $ norm，即分别为核定标准和$ l_ {1} $ norm，以解决此类问题。已知凸的近似值会产生偏置的估计量。为了克服这个问题，采用并设计了相应的非凸照器。受到最近开发的矩阵等效最小值凸额（EMCP）定理的启发，本文确定了张量当量的最小值 - concave惩罚（TEMCP）的定理。张量当量MCP（TEMCP）作为非凸照正规器零件和等效加权张量$ \ gamma $ norm（EWTGN）作为低级别部分的构建，两者都可以实现权重适应性。同时，我们提出了两个相应的自适应模型，用于两个经典的张量恢复问题，即低级张量完成（LRTC）和张量鲁棒的主成分分析（TRPCA），其中优化算法基于交替的方向乘数（ADMM）。设计了这种新型的迭代自适应算法，可以产生更准确的张量恢复效果。对于张量的完成模型，考虑了多光谱图像（MSI），磁共振成像（MRI）和彩色视频（CV）数据，而对于张量的稳定性主成分分析模型，高光谱图像（HSI）在高斯噪声和盐和盐和盐和盐和盐和盐和盐和盐和盐和考虑了胡椒噪声。所提出的算法优于ARTS方法，并且通过实验保证其降低和收敛性。

张量稀疏建模是一种有希望的方法，在整个科学和工程学中，取得了巨大的成功。众所周知，实际应用中的各种数据通常由多种因素产生，因此使用张量表示包含多个因素内部结构的数据。但是，与矩阵情况不同，构建合理的稀疏度量张量是一项相对困难且非常重要的任务。因此，在本文中，我们提出了一种称为张量全功能度量（FFM）的新张量稀疏度度量。它可以同时描述张量的每个维度的特征信息以及两个维度之间的相关特征，并将塔克等级与张量管等级连接。这种测量方法可以更全面地描述张量的稀疏特征。在此基础上，我们建立了其非凸放松，并将FFM应用于低级张量完成（LRTC）和张量鲁棒的主成分分析（TRPCA）。提出了基于FFM的LRTC和TRPCA模型，并开发了两种有效的交替方向乘数法（ADMM）算法来求解所提出的模型。各种实际数值实验证实了超出最先进的方法的优势。

低等级张量完成（LRTC）问题引起了计算机视觉和信号处理的极大关注。如何获得高质量的图像恢复效果仍然是目前要解决的紧急任务。本文提出了一种新的张量$ l_ {2,1} $最小化模型（TLNM），该模型（TLNM）集成了总和核标准（SNN）方法，与经典的张量核定常（TNN）基于张量的张量完成方法不同，与$ L_ { 2,1} $ norm和卡塔尔里亚尔分解用于解决LRTC问题。为了提高图像的局部先验信息的利用率，引入了总变化（TV）正则化项，从而导致一类新的Tensor $ L_ {2,1} $ NORM Minimization，总变量模型（TLNMTV）。两个提出的模型都是凸，因此具有全局最佳解决方案。此外，我们采用交替的方向乘数法（ADMM）来获得每个变量的封闭形式解，从而确保算法的可行性。数值实验表明，这两种提出的算法是收敛性的，比较优于方法。特别是，当高光谱图像的采样率为2.5 \％时，我们的方法显着优于对比方法。

Nonlinear mapping is an essential and common demand in online systems, such as sensor systems and mobile phones. Accelerating nonlinear mapping will directly speed up online systems. Previously the authors of this paper proposed a Dendrite Net (DD) with enormously lower time complexity than the existing nonlinear mapping algorithms; however, there still are redundant calculations in DD. This paper presents a DD with an acceleration module (AC) to accelerate nonlinear mapping further. We conduct three experiments to verify whether DD with AC has lower time complexity while retaining DD's nonlinear mapping properties and system identification properties: The first experiment is the precision and identification of unary nonlinear mapping, reflecting the calculation performance using DD with AC for basic functions in online systems. The second experiment is the mapping precision and identification of the multi-input nonlinear system, reflecting the performance for designing online systems via DD with AC. Finally, this paper compares the time complexity of DD and DD with AC and analyzes the theoretical reasons through repeated experiments. Results: DD with AC retains DD's excellent mapping and identification properties and has lower time complexity. Significance: DD with AC can be used for most engineering systems, such as sensor systems, and will speed up computation in these online systems. The code of DD with AC is available on https://github.com/liugang1234567/Gang-neuron

线云虽然在先前的工作中受到评价不足，但与从多视图图像中提取的点云相比，可能对建筑物的结构信息进行了更紧凑的结构信息。在这项工作中，我们建议第一个处理用于构建线框抽象的线云的网络。该网络将线云作为输入，即从多视图图像提取的3D线段的非结构和无序集，并输出基础建筑物的3D线框，该建筑物由稀疏的3D连接组组成，由线段连接， 。我们观察到一个线斑块，即一组相邻的线段，编码足够的轮廓信息，以预测潜在连接的存在甚至3D位置，以及两个查询连接之间的连通性的可能性。因此，我们引入了两层线斑变压器，以从采样线贴片中提取连接和连接性，以形成3D构建线框模型。我们还介绍了带有地面3D线框的多视图图像的合成数据集。我们广泛证明，在多个基线建筑重建方法上，我们的重建3D线框模型可显着改善。